Infrastructure IA : AMD dévoile Helios, sa réponse au DGX de Nvidia | LeMagIT

LeMagIT - 24/07
Comme chez Nvidia, la machine comprend 72 GPU interconnectés. Elle permettrait aux hébergeurs de services d’IA de produire 30 % de tokens en plus pour un coût d’exploitation similaire.

AMD a enfin dévoilé Helios, le baie de calcul d’IA bardée de 72 de ses tout derniers GPU MI455X et qui se veut un concurrent direct du DGX NVL72, le cluster de calcul que Nvidia propose depuis plus de deux aux hyperscalers.

Sur le papier, les caractéristiques techniques de cette machine sont supérieures à celles du dernier modèle DGX Vera Rubin NVL72. Une puissance de 1,45 exaflops (1,4 milliard de milliards d’opérations arithmétiques par seconde) en précision 8 bits et le double, 2,9 exaflops, en précision 4 bits, contre 1,26 et 2,52 exaflops/s chez la concurrence. Un total de 31 To de mémoire HBM4, contre 20,7 To. Une vitesse cumulée de 1,7 Po/s contre 1,58 Po/s en ce qui concerne les flots de données que les GPU lisent ou écrivent dans leur mémoire HBM.

Seule la bande passante entre les GPU est similaire dans les deux cas : 260 To/s. Enfin, la bande passante entre deux c...
[Courte citation de 8% de l'article original]